Le Parlement européen adopte un projet pour protéger les citoyens des dangers de l’IA
Durant l'été, nous vous proposons de retrouver des articles diffusés cette année sur le site. Aujourd'hui, un article initialement publié le 15/06/2023.
Parmi les questions que posent les outils d’intelligence artificielle, se trouvent celles quant aux libertés publiques. Ces derniers jours ont vu un élan politique, surtout en Occident, concernant les mesures à prendre pour limiter. Le Parlement européen vient d’adopter un projet de règlement en ce sens, alors que le Royaume-Uni tente de jouer sa partition et prévoit un sommet mondial sur l’IA.
Le Parlement européen a voté ce 14 juin en faveur d’un règlement sobrement intitulé "législation sur l’intelligence artificielle" qui avait été préparé par la Commission européenne en 2021.
Le projet a été adopté à une écrasante majorité, avec 499 voix pour, 28 contre tandis que 93 députés se sont abstenus. Il doit encore être discuté avec le Conseil de l’Union européenne au sein duquel sont représentés les gouvernements des 27 États membres. En cas d’accord, ce serait la première fois dans le monde qu’une organisation politique adopte un tel texte.
Le processus avait été mis sur pause en raison de l’apparition des débats nouveaux posés par ChatGPT et le générateur d’images Midjourney, notamment le risque de manipulation de l’information et des questions de droits d’auteur.
Si le texte est adopté, les utilisateurs de ces outils devront déclarer si des documents déjà existants et protégés ont été utilisés dans la confection des nouvelles œuvres, et les services proposant ces IA génératives devront installer un système permettant de discriminer entre les vraies et les fausses photos.
Les récentes images montrant le pape en doudoune ou Donald Trump en fuite ont fait le tour du monde, et l’on ne peut exclure l'utilisation d’images à des fins manipulatrices sur le plan politique au cours des campagnes électorales.
Crédit social et surveillance de masse
Le projet se présente comme un barrage fait au principe du crédit social et déclare que l’un des domaines dans lesquels "l’utilisation des systèmes d’IA mérite une attention particulière est l’accès et le droit à certains services et prestations essentiels, publics et privés, y compris les services de santé et services essentiels, qui comprennent sans s’y limiter le logement, l’électricité, le chauffage/refroidissement et l’internet, [en gras dans le texte, NDLR] devant permettre aux citoyens de participer pleinement à la société ou d’améliorer leur niveau de vie."
Les parlementaires se sont également prononcés contre le recours à l’IA dans la perspective d’une société de surveillance de masse. Le projet de règlement s’oppose aux systèmes d’identification biométriques à distance en “temps réel” à des fins répressives, sauf pour la poursuite de crimes graves et avec l’autorisation judiciaire.
Il prévoit également l’interdiction de la collecte non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance dans le but de créer des bases de données en contradiction avec les droits humains et le respect de la vie privée. Le texte déclare ainsi :
"La saisie aveugle et non ciblée des données biométriques provenant des médias sociaux ou des séquences de vidéosurveillance en vue de créer ou d’étendre des bases de données de reconnaissance faciale renforce le sentiment de surveillance de masse et peut entraîner des violations flagrantes des droits fondamentaux, y compris le droit au respect de la vie privée. L’utilisation de systèmes d’IA avec cette destination dans les lieux accessibles au public devrait donc être interdite."
Ce vote intervient une semaine après l’annonce du Premier ministre britannique Rishi Sunak d’un premier sommet mondial sur l’IA qui se tiendra dans son pays cet automne.
Alors que les États-Unis et l’Union européenne ont demandé le 31 mai dernier, à l’occasion de la quatrième édition du Conseil du commerce et des technologies, que soit rapidement mis en place un "code de conduite" volontaire sur l’IA que les acteurs du secteur s’engageraient à respecter.
Le Royaume-Uni, qui a quitté l’Union européenne, tient ainsi à ne pas rester hors du débat et espère accueillir le siège d’un éventuel régulateur mondial de l’IA.
Jean Sarpédon
